Mit einem medizinischen Test soll festgestellt werden, ob eine Person eine bestimmte Krankheit hat oder gesund ist. In dem Falle eines statistischen Tests ist die Nullhypothese also "Die Person ist krank". Aus dem tatsächlichen Gesundheitszustand des Patienten (gesund/krank) und dem Testergebnis (positiv/negativ) sind folgende Kombinationen möglich:

In den Fällen a (Person ist krank und die Krankheit wird erkannt) und d (Person ist gesund und der Test meldet keine Krankheit) ist die Einteilung richtig. In den Fällen b (Falsche Diagnose auf Krankheit) und c (Krankheit wird nicht erkannt) liegt ein Fehler vor. Fall b (falsch positiv) bezeichnet man auch als Fehler 1. Art und Fall c ( falsch negativ) als Fehler 2. Art.

Aus den verschiedenen Fehlerraten eines Einteilungsverfahrens (Klassifikator) lassen sich verschiedene Kenngrößen zur Beurteilung der Qualität der Einteilung angeben (Hierbei sind a bis d jeweils Wahrscheinlichkeiten für die 4 Fälle):

• Die Sensitivität a/(a+c) ist die Wahrscheinlichkeit, dass eine Krankheit erkannt wird (Empfindlichkeit).
• Die Spezifität d/(b+d) ist die Wahrscheinlichkeit, dass es keinen Fehlalarm gibt (Kennzeichnendes Merkmal).
• Die Relevanz a/(a+b) ist die Wahrscheinlichkeit, dass bei einer positiven Diagnose die Person wirklich krank ist (Wirksamkeit oder positiver prädiktiver Wert).
• Die Segreganz d/(c+d) ist die Wahrscheinlichkeit, dass die Person gesund ist, wenn keine Krankheit erkannt wurde (Trennfähigkeit oder negativer prädikativer Wert).
• Die Korrektklassifikationsrate a+d ist die Wahrscheinlichkeit für eine richtige Diagnose
• Die Falschklassifikationsrate b+c ist die Wahrscheinlichkeit für eine falsche Diagnose

Die Kennwerte hängen voneinander ab. Wenn man die Rate der Falsch-positiven Ergebnisse verringert, so erhöht dies in der Regel die Falsch-negativ-Rate und umgekehrt. Je genauer beispielsweise mit einem medizinischen Kranke als solche identifiziert werden können (höhere Sensitivität), um so mehr Gesunde werden auch fälschlich als Kranke klassifiziert.

Dieser Zusammenhang ist bei verschiedenen Labortests zu bedenken: Preiswerte Screening-Tests werden so justiert, dass eine möglichst kleine Anzahl falsch-negativer Ergebnisse vorliegt. Die produzierten falsch-positiven Testergebnisse werden anschließend durch einen Bestätigungstest identifiziert. Für schwerwiegende Erkrankungen sollte stets ein Bestätigungstest durchgeführt werden. Dieses Vorgehen ist für die Bestimmung von HIV sogar gefordert.

Je nach Einsatzgebiet kann eine Fehlklassifikation mehr- oder weniger schlimme Folgen haben. Ihre Auswirkungen lassen sich zur Bewertung eines Klassifikators in einer Kostenmatrix angeben.

Diese Parameter sind wichtige Maße in der Statistik und hängen auch von der gewählten Fehlerwahrscheinlichkeit ab (z.B. 68 % für das Zutreffen der Standardabweichung).

Vom Fehler 1. Art (alpha) spricht man, wenn man einen Effekt annimmt, der in Wirklichkeit gar nicht vorhanden ist. Mathematisch formuliert:

• die so genannte Ausgangshypothese "H0" abgelehnt wird, obwohl sie richtig ist.

Die Ausgangshypothese (H0, "null" für keinen Unterschied) ist hierbei die Annahme, die Testsituation befindet sich in dem "Normalzustand", d.h. in den oben genannten Beispielen "es brennt nicht", "der Angeklagte ist unschuldig", "der Patient ist gesund" oder "die Person hat Zugangsberechtigung". Wird also dieser "Normalzustand" nicht erkannt, obwohl er tatsächlich vorliegt, handelt es sich um einen Fehler 1. Art.

Beispielsweise wird eine Person zu Unrecht als krank genannt, obwohl sie tatsächlich gesund ist. Falsch Positive (englisch: false positives) sind zu Unrecht als krank genannte Gesunde.

Nota bene: Die Aussage "Ein Unterschied, etwa in einer Methode, wird auf einem Signifikanzniveau von 5 Prozent festgestellt" ist nicht gleich bedeutend mit der Ausssage: "Wenn ich annehme, es gibt einen Unterschied, dann irre ich mich in 5 Prozent der Fälle." Für diese Aussage ist nämlich die Power (=1-beta) eines Tests zuständig!

Die Häufigkeit für einen Fehler 1. Art wird bei der Berechnung von Signifikanzen als Irrtumswahrscheinlichkeit genannt.

Ein Fehler 2. Art (beta) liegt in dem umgekehrten Fall vor, wenn man es verabsäumt, einen Effekt als signifikant zu erklären, obwohl es ihn tatsächlich gibt, bzw.:

• wenn die Ausgangshypothese nicht abgelehnt wurde, obwohl sie falsch ist.

Hier wird also nicht erkannt, dass nicht der "Normalzustand" vorliegt. Die solcherart falsch klassifizierten Zustände werden falsch negativ genannt.

Beispielsweise wird eine Person wird zu Unrecht als gesund genannt, obwohl sie tatsächlich krank ist. Falsch Negative (englisch: false negatives) sind nicht entdeckte Kranke.

Nota bene:Bei der Berechnung mit Alpha und Beta handelt es sich um bedingte Wahrscheinlichkeiten!

Klassifizierungsfehler können überall dort auftreten, wo über die richtige Einteilung in zwei Klassen entschieden werden soll.

• Ein Feuermelder soll einen Brand erkennen aber keinen Fehlalarm auslösen.

• Ein Angeklagter ist schuldig oder unschuldig und soll verurteilt oder freigelassen werden:

• Eine Person ist für einen Sicherheitsbereich zugangsberechtigt oder nicht zugangsberechtig und soll eingelassen oder nicht eingelassen werden:

• Ein Buchstabe in einem Text ist entwender ein A oder kein A und soll mit Hilfe von OCR als A erkannt oder als ein anderer Buchstabe erkannt werden

Welche Konsequenzen ein falsch positiver Test haben kann, zeigt das Beispiel eines Menschen der sich auf HIV testen ließ. Der Test war positiv. Daraufhin beendete der Mensch sein Leben durch Selbsttötung. Hinterher stellte sich heraus, dass er gar nicht von HIV-Viren befallen war. Der Test war falsch positiv ausgefallen.

Bei einer angenommenen Genauigkeit von 99,9 Prozent des kombinierten AIDS-Tests sowohl für positive als auch negative Ergebnisse und der aktuellen Verbreitung von AIDS (Stand 2003) in der Deutschen Bevölkerung (160. Tausend Tausend Einwohner, davon 40 Tausend HIV-positiv) wäre ein allgemeiner AIDS-Test verheerend. Von 40 Tausend tatsächlich erkrankten würden bei lediglich 40 HIV-Infizierten Menschen die Krankheit fälschlicherweise nicht erkannt. Etwa 160 Tausend Personen würden jedoch fälschlicherweise als HIV-Positiv diagnostiziert. Von 200 Tausend positiven Ergebnissen wären etwa 80 Prozent falsch positiv.

In den Vereinigte Staaten Amerika werden pro Jahr etwa 4 Millionen Frauen und Männer aufgrund von Schmerzen in der Brust unter der Verdachtsdiagnose Herzinfarkt in eine Klinik eingewiesen. Im Verlauf der aufwendigen und teuren Diagnostik stellt sich dann heraus, dass von diesen Patienten ca. etwa 32  Prozent tatsächlich einen Infarkt erlitten haben. Bei 68  Prozent war die Diagnose Infarkt nicht korrekt. (falsch positive Verdachtsdiagnose). Andererseits werden in jedem Jahr etwa 34 Tausend Patienten aus dem Krankenhaus entlassen, ohne dass ein tatsächlich vorhandener Herzinfarkt erkannt wurde (ca 0,8  Prozent falsch negative Diagnose).

Wie jeder Test liefert auch die Mammographie falsch positive Testergebnisse. Dies ist der Grund, dass jede zweite Frau, die regelmäßig zu einer (nicht qualitätsgesicherten) Mammographiebehandlung geht, einen positiven Befund bekommt, obwohl sie gar keinen Brustkrebs hat.

Diagnose, Fehlerwahrscheinlichkeit , Glockenkurve, Signifikanz, Statistik, Testverfahren , statistischer Test